Sélection de modèles et sélection d’estimateurs pour l’Apprentissage statistique (Cours Peccot) Premier cours: Apprentissage statistique et sélection d’estimateurs

1. Le problème de l’apprentissage statistique 2 1.1. Cadre général 2 1.2. Exemple : prédiction 2 1.3. Exemple : régression 2 1.4. Exemple alternatif : régression sur un plan d’expérience fixe 3 1.5. Autres exemples 4 2. Estimateurs 4 2.1. Définition générale 4 2.2. Consistance, No Free Lunch 5 2.3. Exemples : Estimateurs par minimum de contraste 5 2.4. Exemple : Estimateurs des moindres carrés 5 2.5. Autres exemples d’estimateurs 5 3. Sélection d’estimateurs 6 3.1. Sélection d’estimateurs pour l’estimation 6 3.2. Sélection d’estimateurs pour l’identification 7 3.3. Décomposition biais-variance du risque : choix de modèles général 8 3.4. Décomposition biais-variance du risque : régression homoscédastique sur un design fixe, moindres carrés 9 3.5. Principe d’une sélection à l’aide des données 9 3.6. Pénalité idéale : régression homoscédastique sur un design fixe, moindres carrés 10 3.7. Autres procédures fondées sur l’estimation sans biais du risque 11 4. Une inégalité-oracle pour la sélection de modèles 11 4.1. Début de preuve d’inégalité-oracle 11 4.2. Une inégalité oracle pour la régression Gaussienne homoscédastique 11 5. Références mentionnées à la fin de l’exposé 14